기계학습(Machine Learning) 기술로 딥페이크 음성을 합성하여 사람의 목소리를 완벽하게 모방하는 AI 음성 사기가 전례 없는 속도로 확산하고 있습니다. FBI에 따르면 2025년 한 해 동안 AI 기반 사기로 인한 미국 내 피해액이 최소 8억 9,300만 달러에 달하며, 특히 60세 이상 고령층이 주요 표적이 되었습니다. 정교한 공격 기술과 대중의 인식 부재 간의 격차가 커져 금융 기관과 사법 당국이 대응에 어려움을 겪고 있습니다.
가족의 목소리를 AI로 복제해 몸값을 요구하는 등 진위를 가리기 힘든 AI 사기가 일반인을 표적으로 삼고 있습니다. 이에 대응하기 위해 보안 전문가들이 설립한 스타트업 '세이비(Savi)'가 700만 달러를 유치하고 실시간 사기 탐지 모바일 앱을 출시했습니다. 이 앱은 문자, 이메일, 전화 등을 통해 일어나는 교묘한 AI 사기로부터 일반 소비자를 보호하는 데 목적이 있습니다.
AI 모델 사용량에 따른 토큰(Token) 과금제가 본격화되면서, 기업들이 폭발적인 AI 비용을 줄이기 위해 혈안되어 있습니다. 일부 기업은 AI 모델이 토큰을 덜 소비하도록 원시인처럼 말하도록 유도하는 등 다양한 비용 절감 기법을 도입하고 있습니다. 또한 구독자용 콘텐츠에서는 존재하지 않는 AI 생성 꽃씨를 온라인 마켓에서 판매하는 신종 사기 문제도 다룹니다.
구글이 안드로이드 기본 통화 앱에 AI 딥페이크를 이용한 사기 및 지인 사칭을 탐지하는 기능을 전격 도입했습니다. 기기 간의 자동화된 디지털 확인 과정을 통해 발신자의 신원을 실시간으로 검증하여 위험 시 즉시 통화를 끊으라는 경고를 제공합니다.